Lời giải:

$x^2+xy-6y^2+x+13y=17$

$\Leftrightarrow x^2+x(y+1)+(-6y^2+13y-17)=0$

Coi đây là pt bậc 2 ẩn $x$. Để pt có nghiệm nguyên thì:

$\Delta=(y+1)^2-4(-6y^2+13y-17)=t^2$ với $t$ là số tự nhiên

$\Leftrightarrow 25y^2-50y+69=t^2$

$\Leftrightarrow (5y-5)^2+44=t^2$

$\Leftrightarrow 44=t^2-(5y-5)^2=(t-5y+5)(t-5y-5)$

Đến đây là dạng pt tích đơn giản rồi.

Ta có: x2 – 2x + 1 = 6y2 -2x + 2

=> x2 – 1 = 6y2 => 6y2 = (x-1).(x+1) chia hết cho 2 , do   6y2 chia hết cho 2 

Mặt khác x-1 + x +1 = 2x chia hết cho 2 =>   (x-1) và (x+1) cùng  chẵn hoặc cùng lẻ.

Vậy (x-1) và (x+1) cùng  chẵn  => (x-1) và (x+1) là hai số chẵn liên tiếp

 (x-1).(x+1) chia hết cho 8 => 6y2 chia hết cho 8  =>  3y2 chia hết cho 4  => y2 chia hết cho 4  => y chia hết cho 2 

  y  =  2  ( y là số nguyên tố) , tìm được x = 5. 

Chúc học tốt!

Nếu x, y không chia hết cho 3 thì x² chia cho 3 dư 1, do đó \(\left(x^2+2\right)^2\) chia hết cho 3.

Mà \(2y^4+11y^2+x^2y^2+9\) không chia hết cho 3 nên suy ra vô lí.

Do đó x = 3 hoặc y = 3 (Do x, y là các số nguyên tố).

Với x = 3 ta có \(2y^4+20y^2+9=121\Leftrightarrow y^4+10y^2-56=0\Leftrightarrow\left(y^2-4\right)\left(y^2+14\right)=0\Leftrightarrow y=2\) (Do y là số nguyên tố).

Với y = 3 ta có:

\(\left(x^2+2\right)^2=9x^2+270\Leftrightarrow x^4-5x^2-266=0\Leftrightarrow\left(x^2+14\right)\left(x^2-19\right)=0\). Không tồn tại số nguyên tố x thoả mãn.

Vậy x = 2; y = 3.